Vào giữa thập niên 1960, quân đội Liên Xô muốn một loại tên lửa không đối đất chiến thuật có đầu đạn 100 kg, để trang bị cho máy bay tiêm kích Mikoyan-Gurevich MiG-23, loại tương đương của Mỹ là AGM-12 Bullpup.[1] Tháng 4-1965, Vympel được chỉ định phát triển một loại tên lửa dưới tên gọi Kh-23, nhưng chúng có các vấn đề về việc phát triển một hệ thống dẫn đường.

Vì vậy, Yuri Korolev (phòng thiết kế sau này trở thành Zvezda OKB năm 1976)[2] đã gửi đề xuất riêng của mình dựa trên kinh nghiệm thiết kế loại tên lửa không đối không Kaliningrad K-5 (RS-2-US, AA-1 'Alkali'). Kết quả là vũ khí mới được trang bị hệ thống dẫn đường và động cơ của K-5, nhưng tăng trọng lượng đầu đạn từ 13 kg (29 lb) lên 100 kg (220 lb).[1] Điều này đưa lại lợi thế lớn cho vũ khí mới, nó có thể được lắp đặt vào bất kỳ máy bay có khả năng mang được tên lửa K-5. Việc thiết kế bắt đầu vào năm 1966,[2] do đó dự án được gọi tên là Kh-66 hay Izdeliye 66 ('Article 66'). Kh-66 là một vũ khí bám theo chùm tia được thử nghiệm trên một chiếc MiG-21PFM[2] và đi vào sản xuất năm 1968, nó được trang bị cho các máy bay. Kh-66 chỉ là một giải pháp tạm thời, nó yêu cầu máy bay phải bổ nhào xuống mục tiêu để duy trì khóa mục tiêu.

Trong khi đó Zvezda bắt tay làm việc với dự án Kh-23, dự án này đã trở thành một sự phát triển của thiết kế Kh-66 với một cải tiến về hệ thống dẫn đường và động cơ. Sự khác biệt chính của Kh-23 là nó đã trở thành vũ khí điều khiển qua radio truyền thẳng giống với Bullpup, cho phép nó có thể được khai hỏa khi máy bay đang bay (không giống với Kh-66). Chuyến bay thử nghiệm đã bắt đầu vào năm 1968,[2] nhưng sự chậm trễ đáng kể đã xảy ra do vấn đề với hệ thống dẫn đường không đáng tin cậy, và cuối cùng người ta tìm ra nguyên nhân chính là khói do máy phát diện gây ra đã gây ảnh hưởng tới anten.[1] Sau khi thiết kế lại, nó đã được chấp nhận đưa vào hoạt động năm 1973 trên Mig-23.[2]

Một phiên bản dẫn đường băng laser của Kh-23 là Kh-25, đã trở thành thiết kế cơ bản cho dòng tên lửa AS-10 'Karen'. Công nghệ này đã được 'backport' cho Kh-23 để tạo ra Kh-23M vào năm 1974.